自ChatGPT橫空出世，生成式人工智能風險亦陸續湧現。今年初，世界經濟論壇（World Economic Forum）將人工智能產生的錯誤訊息及假訊息列為全球「頭號威脅」。去年，香港人工智能深偽（AI Deepfake）騙案增10倍，實際僅屬冰山一角，在「深科技」加持下，金融黑色產業正急速膨脹，道高一呎，魔高一丈，但破案率卻徘徊低位。
撰文：李潤茵 本刊記者
你是誰？──一道簡單問題，正成為企業難題，甚至已帶來損失。今年初，總部位於英國的工程公司奧雅納（Arup）便不幸捲入深偽騙案，其香港分部職員遭誘使轉賬約2500萬美元（約1.95億港元），其後向總部查詢，方知自己「中伏」！
AI天仙局
案發經過是這樣的：受害者首先收到短訊，對方自稱為總公司CFO，聲稱將要展開機密交易，遂要求他參與視像會議，期間二人曾多番電郵及WhatsApp溝通。在會議上，參與者還有其他英國同事，容貌與現實相符，受害者被要求作自我介紹，但沒機會跟其他與會者交流。
事關CFO很快散會，再在即時通訊軟件下指令，香港職員不虞有詐，前後轉賬15次到本地5個銀行賬戶，結果如何呼之欲出！──整場會議實質是天仙局，全場僅受害者為真人，其餘均為騙徒。他們預先下載真實影片，再用深偽技術，改變口型及配音，成功營造出「多人實時會議」。
警方並非首次接獲「換臉」詐騙﹝表一﹞，「奧雅納案」觸目源於金額破紀錄達2億港元，加上苦主是跨國企業，曾參與多項目工程如北京奧運會場館、國金二期及港珠澳大橋等，所以「業界反應很大！」香港金融科技協會（FTAHK）董事會成員李嘉明坦言，從未想過Deepfake技術已經爐火純青，形容案件反映面對新型詐騙手段，企業其實相當脆弱。
「正常情況下，專業人士都難分辨真偽，中小企更加擔憂，即使明白網絡安全重要，但他們根本無從入手。」因深偽不僅瞄準公眾人物，任何人都有機會成為目標。畢竟現代生活虛實接軌，有心收集人臉資料，社交平台大量素材，偽造畫面像真度愈來愈高，美國東北大學去年發表研究顯示，便有52%受訪者無法肉眼區分。
究竟Deepfake是什麼技術？淪為騙徒「核心技術」前，深偽原指用人工智能合成人體圖像、影片及聲音﹝圖一﹞，早於2017年已經面世，顧名思義是結合「深度學習」（Deep learning）及「偽造」（Fake）。
平情而論，這種技術並不新穎。簡單如修圖App都會用來「照騙」，還有早前流行玩FaceApp「變老」及「變性」，甚至「AI尹光」皆由深偽炮製。Deepfake能騙過人眼，本身是技術突破。
電影業早有「變臉」技術。舉例2008年畢彼特主演《奇幻逆緣》，講述主角出生時有衰老症，隨着年齡增長返老還童，用上CG技術變相是早期Deepfake，分別在於前者後製花錢花時間，需要專業人士操刀；後者靠內部演算法持續進化，使用門檻大大降低。
訓練Deepfake沒想像中困難。「若這個人坐着不動，只顯示面部，假設數據足夠，並視乎使用機器，估計拿到照片，用一星期訓練已足夠；聲線所需時間亦不長，我們驗證有1分鐘語音已很逼真，入面有笑聲、哭聲及嘆氣，模仿效果更佳。」
AI專家最清楚AI風險所在。曹琛為科技大學大數據研究所高級經理（研究與發展），曾任華為AI部門主管。去年他接受本刊訪問時，已警告生成式人工智能會衍生造假。「AI經歷幾個浪潮，AlphaGo擊敗圍棋高手，主要影響工業界，ChatGPT屬於『生成原理』，即從前回答判斷題，現在是做問答題，它能夠長篇大論。」
今年6月，美國加州大學聖地牙哥分校的認知科學家在一篇預印本論文中表示，OpenAI開發的ChatGPT-4人工智能聊天機械人，可以在超過一半時間內「欺騙」人類測試對象，意味着人工智能已經超越「圖靈測試」（Turing Test）水準，即代表電腦達到媲美人類的智力。
本科生已可操作
「以前，我們只把人工智能當工人，現在它慢慢成為知識生產源頭，很大程度與人混淆，甚至侵佔。Deepfake原理是學習大量真人數據，包括圖像、聲音及語氣，隨着技術發展只會愈來愈似人。」曹琛強調，製造出似人的機械人，始終是人類夢想，惟技術永遠是雙刃劍。
這項尖端科技誰能操作？本科生水平足矣！人工智能領域習慣「開源」，即「將技術免費開放，以擴大自身影響力，一名計算機工程系學生都用到」。市場充斥「AI換臉」應用程手式，價錢豐儉由人，部分更設免費試用，普遍基於開源軟件開發。
「普通人要在短時間內，獲得相當級別產品亦非難事，網絡上不乏專家，僱用成本約兩萬港元。」反觀AI防詐技術，曹琛坦言要追落後，大部分仍處於實驗階段，尚未進入產業，警告企業切忌悼以輕心，「未來一兩年都比較危險！」
金融業高危
AI詐騙屬全球風險。最近，身份驗證平台Sumsub發表2024年首季報告，便顯示Deepfake事件增速前所未見，亞太區升幅為歐美八倍﹝圖二﹞，「跟2年前截然不同，如今Deepfake是企業熱門議題！」Sumsub AI及機器學習部門主管Pavel Goldman-Kalaydin表示，該公司每月會分析超過15萬次試圖詐騙事件。
「詐騙率」是透過分析IP地址，再結合其他可疑活動指標計算出來。Pavel進一步向本刊披露，去年全球每100名數碼平台/服務用戶中，就有1人是詐騙集團受害者。更值得注意的是，香港在Deepfake詐騙錄得10倍增幅，遠超全球水平2.5倍，金融科技行業身份欺詐率，更為亞太區最高，大幅拋離傳統對手新加坡﹝圖三﹞。
為什麼香港格外高危？皆因有攻擊價值。「香港是亞太金融中心，有很多跨國企業及金融機構，管理龐大資金及敏感數據；加上，近年金融科技發展迅速，很多東西都走得很前，變相成為新型詐騙試驗場。」李嘉明補充，本港跨境交易頻繁、擁有區域戰略地位，也為騙徒提供誘因。
自律政司去年新增「科技罪行分科」後（主要分為網上騙案、勒索及盜用電腦三類），截至2023年，警方接報超過3.4萬宗案件，4年飆升逾309%，損失金額近55億元；「網上騙案」佔整體80%，最常見為商業、釣魚及社交媒體等，則較2019年增加429%。
李嘉明指出，騙案數字有機會被低估，因為「企業未必次次報警」。苦主選擇「低調」情有可原，一來金額未必很龐大（如數萬元），所以不想張揚，特別是中小企；二來是即使報警，追回款項都機會渺茫。
不過一場精心策劃的騙局，Deepfake屬於最後一環，「事前起碼花半年部署」。前期工作包括什麼？VXRL電腦保安研員賴灼東解釋，騙徒先是商業間諜，要將公司決策架構、交易習慣，以至客戶關係網「起底」，「銀行遇上可疑交易，正常會發出警告，為什麼職員還繼續轉賬呢？因為所謂『上司』成功騙取信任」。
中環不乏金融機構，表面看來規模不大，員工僅10至20名，實質財力雄厚，多為跨國企業，業務涵蓋美加等地，「他們並非大型上市公司，而是家族式經營，其高淨值客戶都習慣使用私人戶口」。
賴灼東認為，這類公司不無隱憂，因安全意識相對薄弱。「當你見到畫面模糊不清，僅認為是解析度問題，而未能聯想到有可能是騙徒偽裝，已經屬於意識不足；反觀大型基金公司及外資，通常會有更嚴格程序及多重審批流程。」舉例Zoom視像會議，儘管是疫後新常態，不過賴灼東發現，不少企業未有妥善處理錄音及錄影檔案，一旦電腦遭入侵，會議紀錄一覽無遺。考考你，誰的電腦最易入侵？「許多人以為只有C級職位（CEO、CFO及CTO）部電腦先重要，但誰經常幫老闆收電郵？通常又是誰負責安排會議呢？答案是秘書。」
賴灼東的工作，於行內又稱為「道德黑客」（Ethical Hacker），因他會在完全合法的情況下，攻擊某系統來找保安漏洞，「其實沒有道不道德，黑客是一種文化，意思是用聰明方法（技術）解決問題，試圖惡意攻擊是罪犯（Criminal）」，但他清楚「惡意黑客」（下稱「黑客」）的套路。
暗網大茶飯
黑客如何搵食？跟小偷相似，面對芸芸IP地址，黑客都要「踩線」，在網絡世界則是逐個攻擊，測出不同脆弱程度後，再深入調查背後機構、財務資料及網絡安全架構等，原則上捨難取易。從前通常是先勒索受害機構會公開資料，主要靠贖金「食糊」，否則放「暗網」兜售。
但這種做法已經過時。賴灼東指出，隨着AI Deepfake愈趨普及，黑客有條件放長線釣大魚，不急於一時三刻收網，即使「他們發送釣魚電郵，目的不在破壞系統，而是潛伏監聽」，畢竟完成「摸底」是真正「大茶飯」。從經濟角度來看，詐騙是一條產業鏈，黑客屬於上游供應商，為詐騙集團提供個人資料。過去，詐騙行業技術含量低，基本上是勞動密集型，例如電話詐騙，騙案命中率低會拖累利潤，直至AI Deepfake騙案出現，行業成功轉型為「高增值」，因參考香港「先例」，企業損失達2億元，自然帶動黑客叫價能力。
Deepfake只是初階AI武器，「暗網已在販賣WormGPT，明碼實價，就是解鎖版ChatGPT，沒有道德規範」。生產力局數碼轉型部總經理兼香港網絡安全事故協調中心發言人（HKCERT）陳仲文指出，過去網絡攻擊由黑客高手發動，生成式電腦病毒卻徹底顛覆。
這款「高階」AI武器已經出現首宗案例——今年5月，一名25歲日本無業男，單向生成式AI提出問題已製造出可加密資料、勒索贖金的病毒，而他並無資訊工程學歷及知識，「現在只要找到門路，很多犯罪分子會租用工具，跟開發者分成，有組織發動攻擊，自己不用懂技術」。
生成式AI會導致電腦病毒變種，陳仲文比喻，情況類似新冠病毒，「需要疫苗不斷換代，「過往的電腦病毒，安裝防火牆及防毒軟件，基本上能偵測到，但現在由於用AI生成，所以程式都不停改變，對偵測新病毒是很大挑戰」。
提升AI防詐騙系統談何容易？AI專家曹琛直指，那是場「不公平的鬥爭」，詐騙方已用上高技術，反觀過去10年，本港科技罪案破案率，徘徊7.6%至17.4%低位，警方將愈發力不從心，事關傳統釣魚（Phishing）都趨向AI驅動，Deepfake僅起步，最極端是「騙案全自動化」。
「現在Deepfake仍是單點技術，它可表現出微表情，再進一步是AI直接操作工具，例如將電郵帳號及密碼交給它，它可幫你起草、收發及閱讀郵件，甚至學術界已經討論『多智能體』（Multi-Agent）。」
什麼是多智能體？簡單理解，就是現實版《西部世界》。去年，美國史丹佛大學打造虛擬小鎮是例子。該校用ChatGPT生成出25位AI居民，為他們設定不同姓名、職業、身份、人生目標及行為模式等人設，「騙局結合多智能體將更難防範」。
他解釋，AI完全能自發設計騙局，從挑選目標到發送假訊息，「傳統詐騙集團還得培訓人手，AI每天打100個電話後，自動篩選受害者，人類騙徒將相當『方便』」，此番操作技術門檻較高，「需要碩士程度（master level）」，但並非遙不可及。
——節錄自8月號《信報財經月刊》
